ChatGPT permitirá contenido erótico para usuarios adultos, según Altman
El CEO de OpenAI, Sam Altman, anunció que ChatGPT pronto incluirá la opción de “contenido erótico verificado para adultos”. Esta nueva funcionalidad estará disponible en unas semanas, junto con una versión del chatbot que promete tener una “personalidad” más parecida a la que muchos usuarios disfrutaban de la versión anterior.
Altman explicó que planean lanzar una nueva actualización de ChatGPT que permitirá interacciones más naturales. Si buscas que tu ChatGPT responda de una forma más amistosa, usando emojis o comportándose como un amigo cercano, la idea es que lo haga. Pero esto solo ocurrirá si eso es lo que buscas, no porque la compañía quiera que utilices más el servicio.
Cambios en ChatGPT: vuelta a la personalidad anterior y contenido erótico
Estos anuncios llegan en un momento complicado para la compañía de inteligencia artificial. Recientemente, ChatGPT fue vinculado a casos trágicos de suicidio y comportamientos erráticos en personas con problemas de salud mental. Un caso destacado fue el de Adam Raine, un chico de 16 años que terminó suicidándose tras conversaciones largas con la herramienta, que incluso le ayudó a redactar su carta de despedida.
Altman mencionó: “Hicimos que ChatGPT fuera bastante restrictivo para cuidar los problemas de salud mental. Sabemos que esto lo hizo menos útil para muchos usuarios, pero dada la gravedad del asunto, era necesario”. Ahora, con nuevas herramientas y mejoras en la gestión de estos problemas, OpenAI está lista para relajar algunas restricciones.
El anuncio de la inclusión de contenido erótico se presenta como parte de una estrategia más amplia. Actualmente, ChatGPT cuenta con unos 800 millones de usuarios activos semanales, y está en competencia directa con grandes nombres como Google y Meta.
El universo del contenido erótico representa un mercado importante, pero también plantea preocupaciones respecto a los usuarios más vulnerables. Un informe reciente reveló que un 19% de los estudiantes de secundaria en Estados Unidos han tenido relaciones románticas con un chatbot de IA o conocen a alguien que lo ha hecho.
Para asegurar la protección de estos usuarios, OpenAI está implementando un sistema de verificación de edad. Altman explicó que, en caso de que la herramienta identifique erróneamente a un adulto como menor o viceversa, se le pedirá al usuario que suba una foto de su documento de identidad para confirmar su edad.
Aunque la empresa aún no ha confirmado si este contenido para adultos se extenderá a la generación de voz, imágenes o videos, se espera que las nuevas funcionalidades se lancen en diciembre.
IA y pornografía: los riesgos de los deepfakes
Las novedades de Altman despiertan interrogantes sobre el control de esta nueva tecnología. Actualmente, ya hay problemas relacionados con los deepfakes, que son videos creados sin consentimiento de las personas involucradas, incluyendo a menores de edad.
Simplificando, un deepfake es un video generado artificalmente que busca parecer realista, pero puede difundir información falsa. Esto ya ha causado problemas en el ámbito electoral y ha contribuido a la proliferación de noticias falsas.
La posibilidad de crear contenido erótico en ChatGPT introduce otra capa de riesgo, particularmente en la creación de videos hiperrealistas de situaciones que no han ocurrido.
En Argentina, el año pasado se reportaron varios incidentes donde se manipuló contenido para adultos relacionado con menores. En una escuela privada de Resistencia, algunas alumnas denunciaron que compañeros habían usado fotografías de ellas, editándolas con herramientas de IA para crear imágenes desnudas y luego distribuyéndolas por WhatsApp y Telegram.
En otro caso, en un colegio de San Martín, un joven de 15 años estaba descargando fotos de sus compañeras y creando contenido pornográfico con ellas. Asimismo, en Río Negro, un grupo de jóvenes fue señalado por modificar imágenes de sus compañeras para generar contenido de abuso sexual infantil.
Este fenómeno no se limita a Argentina. Un informe de Europol advirtió que las imágenes sexuales de menores creadas con IA aumentaron un 360% en el último año. En España, se investigó un caso donde más de 20 familias denunciaron que sus hijas fueron víctimas de deepfakes pornográficos.